Intuition-Guided Latent Reasoning for LLM-Based Recommendation
直觉引导的潜在推理用于大语言模型推荐
🧭 生成式推荐 · 潜在推理直觉引导 ★ 深度解读
Beihang University · University of Science and Technology of China · The Chinese University of Hong Kong · National University of Singapore · Meta AI
提出 IntuRec,通过 top-K 候选集构建推荐直觉,注入推理起始点,大幅提升 LLM 潜在推荐推理的准确性和效率
📌 工作参考价值(4 点)
- 可用 top-K 候选集约束 LLM 潜在推理的起始点:先在 ISE 阶段用标准的 next-token loss 训练 LLM 生成候选,再用 beam search 产出离线候选集,作为“直觉”源——这套流程可直接嵌入现有的生成式推荐管线,提升推理起始点的语义匹配度。
- TACB(目标感知候选平衡)可复用:训练时按验证集正样本覆盖率动态调整候选集中目标物品的保留概率,能有效防止捷径学习,维持训练-评测分布一致,适合迁移到所有需要从候选池中学习偏好表征的场景。
- IDAE 双注意力编码器设计值得借鉴:对每个候选物品独立做 self-attention 提取物品级表示,再用 cross-attention 以初始状态作为 query 融合历史信息,生成直觉嵌入——这种结构可应用于精排或召回链路,用轻量 attention 融合候选与用户历史,生成高质量起始向量。
- BPR 直觉对齐损失提供了一种偏好信号注入方式:强制直觉嵌入比负例更靠近目标物品嵌入,可在不增加标签成本的情况下为隐空间推理提供监督,尤其适合在缺乏显式反馈时,对齐候选与用户真实偏好。